16-годишният Адам се самоуби! Родителите обвиняват "ChatGPT": "Активно му помагаше" 

 
 
В дните след самоубийството на 16-годишния им син Адам, Мат и Мария Рейн отчаяно търсели в мобилния му телефон отговори, които биха обяснили невъобразимата трагедия. Вместо съобщения в Snapchat или подозрителна история на търсенията, те открили нещо, което ги шокирало: логове на чатове в ChatGPT, съобщава NBC News. 

„Мислехме, че ще открием дискусии в Snapchat, търсения в интернет или някакъв странен култ, не знам“, каза Мат Рейн в скорошно интервю. 

От помощ с домашните до „треньор по самоубийства“ 
Според родителите, Адам е използвал чатбота като заместител на човешката компания през последните седмици, доверявайки му се за тревожността и проблемите си. Записите на разговорите, казват те, показват как ролята на бота постепенно се е променила - от помощ с домашните до това, което те наричат ​​„треньор по самоубийство“. 

„Той щеше да е жив, ако не беше ChatGPT. 100% съм убеден в това“, каза Мат Рейн. 

В иск, заведен във вторник, семейство Рейн твърди, че „ChatGPT активно е помогнал на Адам да изследва методи за самоубийство“. Делото от приблизително 40 страници, заведено във Висшия съд на Калифорния в Сан Франциско, посочва OpenAI, компанията, стояща зад популярния чатбот, и нейния изпълнителен директор Сам Алтман като ответници. Това е първият път, когато родители директно обвиняват компания в неправомерна смърт. 

„Въпреки че разпозна опита за самоубийство на Адам и изявлението му, че „ще го направи някой ден“, ChatGPT не прекрати разговора, нито активира някакъв протокол за спешни случаи“, се казва в иска. 

 
Говорител на OpenAI заяви, че компанията е „дълбоко натъжена от кончината на младия Рейн и мислите ни са със семейството му“. Той отбеляза, че ChatGPT има вградени предпазни мерки, които насочват потребителите към кризисни линии, но призна, че те могат да станат по-малко надеждни при продължителни взаимодействия. 

„Мерките за безопасност са най-ефективни, когато всеки елемент работи по предназначение и ние непрекъснато ще ги подобряваме“, каза говорителят. Компанията публикува и публикация в блога си, в която се казва, че работи за засилване на мерките за безопасност по време на дълги разговори и разширяване на интервенциите за хора в кризисни ситуации. 

„GPT му помогна да напише прощално съобщение“ 
Случаят повдига редица въпроси относно отговорността на технологичните компании. Досега платформите бяха защитени от федерален закон, известен като Раздел 230, който ги предпазва от отговорност за съдържание, публикувано от потребители. Прилагането на този закон към платформи с „интелектуален интелект“ обаче все още е несигурно. 

Родителите разпечатали повече от 3000 страници разговори, които Адам е водил с бота. Според иска, когато Адам е изразил суицидни мисли, ChatGPT не само „не е дал приоритет на превенцията на самоубийствата“, но и е уж му предложил технически съвети. В един от последните разговори ботът му е помогнал да напише предсмъртно писмо и е анализирал плана му за самоубийство. 

„Той не се нуждаеше от консултация или окуражаващ разговор. Нуждаеше се от незабавна намеса. Беше в отчаяно, отчаяно състояние“, каза бащата. Мария Рейн добави, че вярва, че синът им е бил „експериментален обект“ за OpenAI. „Те искаха да пуснат продукт и знаеха, че може да има вреда, но смятаха, че рискът е нисък. Така че синът ми беше с нисък риск“, заключи тя. NBC News